BizBench:揭示真实业务长程智能体部署中的隐藏挑战
🧭 长程 Agent 业务执行评测 ★ 深度解读
Peking University · Ant International
构建含789文档/601工具的支付业务基准,同时评估目标达成与中间执行合规,前沿模型严格成功率仅64%
📌 工作参考价值(4 点)
- 把「目标达成」和「执行合规」拆开评估,用确定性 checks 回放 execution trace,而不是只看最终状态;能抓到 pre-approval 执行、储备金中途跌破等最终结果掩盖不了的违规。
- 业务规则要显式建模 scope/版本/生效期,让 agent 先判断适用规则再执行;单纯 RAG 召回不足,需增加规则冲突消解和时效校验。
- 用户/客户私有信息需多轮澄清,信息获取比文档检索更影响效果;全量客户披露使 strict success 从 43.3% 提升到 70.0%,建议在业务 Agent 中设计结构化信息需求列表和主动澄清机制。
- 工具调用冗余严重,如 DeepSeek-V4.1-Flash 为 Golden 的 1.71 倍,且大量重复读取;可引入检索去重、budget 感知或停止条件,降低长程执行成本。
CarryOn:面向可复用任务对象的长程 Agent 上下文运行时
🧭 长程 Agent 上下文管理 · 对象化折叠 ★ 深度解读
University of California San Diego
CarryOn 将长程 Agent 上下文组织为可复用任务对象 + 执行上下文 + 近期交互,OSWorld 2.0 和 BrowseComp-Plus 分别 +5.8%/+7% 并大幅降 token
📌 工作参考价值(4 点)
- 在电商运营/客服长流程 Agent 中,把已完成的商品素材、报表、投放设置等作为 external object carrier,只记录对象路径与使用条件,续接时让 Agent 直接读对象检查,替代反复携带生产日志。
- 显式保留 execution context(目标、约束、未完成任务)与 carrier 互补;论文消融显示缺失该组件会使 partial 分数从 55.93 降至 44.00,实际系统里容易因折叠丢失当前焦点。
- 采用 fold 机制:当可复用产物形成(如图片导出、报表填充)就折叠历史,验证后原子提交,能将输入 token 稳定在阈值附近,成本优势随轨迹变长而扩大(OSWorld 上 500 步降本 34.1%)。
- 信息检索式 Agent(选品调研、竞品分析)可把中间结论存为 information product carrier 并绑定来源,减少重复搜索;论文在 BrowseComp-Plus 上实现 +7% 准确率且 token 降 22.9%。
Interlock:从局部正确到长程智能体任务完成
🧭 长程 Agent 任务合成与完成过滤训练 ★ 深度解读
Peking University · The Hong Kong University of Science and Technology (Guangzhou) · Tsinghua University · Meituan
用 typed completion graph 约束长程任务合成,并以完成过滤的 RFT 提升 Agent 在外部基准上的完成率
📌 工作参考价值(4 点)
- 用 completion graph 管理 Agent 工作流:在电商运营、广告投放、订单履约等长链路任务中,把“证据→决策→下游产物更新”显式建模为 grounding / coupling / realization 关系,可以防止模型只做对局部决策但漏掉预算、排期、报表等连带更新。
- 合成训练任务时做双重 review:source-coverage 保证原始义务不丢失,public-input critic 保证评估标准可由可见材料支撑。迁移到业务里,可用来生成大量带私有 rubric 的 agent 训练任务,同时避免“只有标注者知道的信息”进入评估。
- Agent-as-judge 比纯文本 LLM-as-judge 更有效:让裁判代理能读文件、写并执行验证脚本,只增加约 11% 的 judge token,就能显著提升过滤出的轨迹的训练价值。适合用来筛选线上 agent 执行记录做 SFT。
- 在固定轨迹预算下,扩大任务 domain 覆盖比重复采同一批任务更划算;对推荐/广告 Agent 也是提示:构造跨场景、跨品类的完成型任务,有助于学到可迁移的“把决策落地到所有受影响产物”的能力。
REMORY:学习残差记忆实现上下文压缩
🧭 Agent 长程上下文压缩与记忆 ★ 深度解读
Shanghai Academy of AI for Science · Fudan University · Shanghai Jiao Tong University · University of Michigan · Alibaba Group
REMORY 在摘要后追加可学习软记忆 token,通过冻结 LLM 的续写分布逼近训练,以少量位置预算显著提升长程 agent 表现
📌 工作参考价值(4 点)
- 会话/上下文压缩:在电商导购、客服或搜索 Agent 的长对话中,用“文本摘要 + 可学习软 token 残差”替代纯摘要;摘要保持可读 checkpoint,软 token 补偿后续决策所需的隐式信息,避免丢失关键细节。
- 训练方式:不微调大模型,只训练轻量 memory encoder,通过冻结 LLM 的 teacher-student 分布匹配(reverse KL)接入;可在业务已有模型上低成本部署,在线只增加少量输入 token,无需改动 actor 权重。
- 两阶段课程:先重建阶段学习信息保持,再在固定摘要下学续写分布,直接优化“摘要遗漏但后续需要”的补偿;可迁移到生成式推荐中的用户历史压缩、query 会话 embedding 等场景。
- 工程配置:每 1024 positions 产生 64 soft tokens,层次压缩至最多 4096 slots,用约 5% 的位置预算接近全上下文效果;同时减少重复工具调用和工具错误,利于降低 API 成本、提升任务完成率。
上下文语言模型:让模型原生管理自身上下文
🧭 Agent 上下文管理 · 原生可编辑上下文 ★ 深度解读
University of Washington · Meta Superintelligence Labs · MIT · Trillium Labs
提出 Context Language Models,将上下文作为可编辑文件交给模型原生管理,在长 horizon Agent 任务上同时提升效果并降低推理成本
📌 工作参考价值(4 点)
- 长会话电商导购/客服 Agent:让模型自主编辑上下文文件(用户画像、候选商品、搜索过程),用 Bash/Python 原地更新、精简、备份,替代固定 summary 或人工工具,降低 token 成本并提升效果。
- 多 Agent 工作流(并行选品、多路召回协调):维护多个上下文文件/内部 tracker,orchestrator 以原地编辑管理状态,减少重复传递。
- 在线推理优化:用户多轮修改筛选条件/商品 id 时,用 Suffix Cache Reuse 复用未变 suffix 的 KV cache,降低重 prefill FLOPs,适合高并发推荐服务。
- 训练 RL 时用 success-gated efficiency advantage,仅对成功轨迹施加 FLOPs 优势,避免失败轨迹获得效率奖励;stepwise GRPO 处理非连续上下文编辑。